与汉代只设一个“丞相”的独相制不同，唐代一开始就是实行“群相制度”。由中书省、门下省、尚书省这三省的最高长官，中书令、侍中、尚书令三人在一起商议国政，没有“丞相”之名，却行宰相之实。

后来，因为李世民当过尚书令，又以尚书令之职荣登大宝，当上了皇帝。为了避嫌，后世就再没人敢当尚书令了。郭子仪被授予尚书令，吓得他极力推辞，只当了六天就卸任。

因尚书令长时间空缺，原来尚书省的两个副手，尚书左、右仆射......